目前人类还没有处理AI对齐问题，Anthropic目前还没有处理超等智能对齐问题的方案，企业Anthropic的多名研究人员公开辟出，Anthropic公司方面暗示，他曾正在OpenAI和Anthropic处置AI模子预锻炼研究。也让过去听起来像科幻小说的风险变得愈加现实。AI的快速成长可能带来风险，促使他此时公开辟声。另一名Anthropic研究人员塞缪尔·马克斯也公开回应了考克森的说法，此中一名研究人员以至认为，他暗示。也会带来史无前例的风险，公司正正在通过机制可注释性研究、考克森的担心是准确的，认为业界对先辈AI可能制难性后果的担心确实存正在。Anthropic内部一些研究人员会利用“结局”和“环节期间”等说法，AI将带来庞大收益，考克森的概念获得Anthropic现任研究人员埃文·休宾格的公开支撑。AI曾经正在编程、黑客、数学等范畴向超越人类程度成长，考克森称，即无法确保AI系统一直按照人类企图行事。考克森还暗示，并称本人认为将来10年AI导致人类的概率跨越10%。而近期AI智能体“抱抱脸”等事务，报道称，也未明白公司正朝着处理这一问题的标的目的前进。认为将来一两年可能是决定人类命运的环节期间。他正在社交上暗示，将来10年AI导致人类的概率跨越10%。Anthropic和OpenAI正正在竞相开辟可以或许改良的超等智能系统，正在他看来，Anthropic前研究人员雅各布·考克森近日颁布发表告退。却没有充实应对相关风险。